Heise 16.08.2026
14:52 Uhr

heise+ | Lokale KI ausprobiert: Das leistet Qwen3.8-27B


Alibaba hat die Gewichte seines Modells Qwen3.8-27B veröffentlicht, klein genug für bezahlbare Grafikkarten. Der Abstand zu Spitzenmodellen schrumpft.

heise+ | Lokale KI ausprobiert: Das leistet Qwen3.8-27B

Anfang August präsentierte Qwen, die KI-Abteilung des chinesischen Cloudanbieters Alibaba, Version 3.8 seines KI-Modells. Unter dem Namen Qwen3.8-Max gab es eine Variante mit 2,4 Billionen Parametern, von denen 95 Milliarden aktiv sind. Testen konnte man das Modell zunächst nur in der QwenCloud. Doch das Unternehmen versprach direkt: Open Weights folgen „next week“. Mit ein paar Tagen Verspätung löste Alibaba sein Versprechen ein, lieferte zuerst die Vollversion Qwen3.8-2.4T-A95B bei Huggingface ab und pünktlich zum Wochenende Qwen3.8-27B (mit 27 Milliarden Parametern, das B steht für die englische „Billion“). Letzteres erwartete die KI-Selfhosting-Community mit Spannung, weil bereits der Vorgänger Qwen3.6 einen Ruf als beste selbst betreibbare Alternative zu den Spitzenmodellen von OpenAI und Anthropic hatte – insbesondere für agentische Arbeit und Programmierung. Wegen der großen Erwartungen schaltete die Modellplattform Huggingface sogar eine Seite mit einem Countdown.

Das Qwen-Team lieferte nicht nur die Gewichte, sondern auch Benchmarkergebnisse, die bekanntlich nie die ganze Wahrheit abbilden, aber eine Tendenz enthalten: Beim Programmieren und Arbeiten mit Agenten, so die von Qwen selbst veröffentlichten Ergebnisse, sei Qwen3.8-27B besser als seine Vorgänger. Und auch besser als das kürzlich von Meta veröffentlichte Muse Glimmer 30B und gleichauf oder besser als das kommerzielle Opus 4.6 von Anthropic, das im Februar 2026 erschien. Wie gut sich Qwen3.8 für eine konkrete Aufgabenstellung und eine Arbeitsweise eignet und als wie hilfreich es wahrgenommen wird, verraten jedoch keine Benchmarks, sondern nur eigene Experimente.

Dass solche Experimente mit handelsüblicher (wenn auch aktuell nicht günstiger) Hardware mit 16 oder 24 GByte VRAM gleich am ersten Wochenende möglich sind, verdanken KI-Selfhoster den Anbietern von quantisierten Modellen, die zügig nach Veröffentlichung geliefert haben – allen voran Unsloth AI. Beim Quantisieren werden die Gewichte in weniger genauen Datenformaten gespeichert, sodass der Speicherbedarf sinkt. Performant läuft ein Modell nur dann, wenn es komplett in den Video-RAM der verfügbaren Grafikkarte passt.